Apple M3 Ultra: "Quái vật" AI tiết kiệm điện, bỏ xa đối thủ

Apple vừa ra mắt Mac Studio mới với chip M3 Ultra cực mạnh, phá vỡ mọi kỷ lục hiệu năng trước đó của hãng. Con chip này có CPU lên đến 32 nhân và GPU 80 nhân, mang lại hiệu suất tính toán và đồ họa vượt trội so với M2 Ultra. Điều đáng nói, M3 Ultra còn chứng minh khả năng "gánh" mô hình AI khổng lồ Deepseek R1 với 671 tỷ tham số, bỏ xa các thế hệ chip Apple Silicon trước đây.

Intel PUMA: Chip 8 lõi 528 luồng với kết nối quang học

Intel ra mắt mô-đun quang học mesh-to-mesh đầu tiên tại hội nghị chip Hot Chips 2023, cho thấy sự tiến bộ của họ trong tương lai của các kết nối chip-to-chip quang học cũng được các công ty như Nvidia và Ayar Labs ủng hộ. Tuy nhiên, chip 8 lõi 528 luồng mà Intel sử dụng cho bài trình diễn đã chiếm spotlight do kiến ​​trúc độc đáo của nó với 66 luồng mỗi lõi để cho phép truyền dữ liệu lên đến 1TB/s. Đáng ngạc nhiên, chip chỉ tiêu thụ 75W điện, với ~60% điện năng được sử dụng bởi các kết nối quang học, nhưng thiết kế cuối cùng có thể cho phép các hệ thống với hai triệu lõi được kết nối trực tiếp với độ trễ dưới 400ns.

Apple M3 Ultra: "Quái vật" AI tiết kiệm điện, bỏ xa đối thủ

Apple vừa ra mắt Mac Studio mới với chip M3 Ultra cực mạnh, phá vỡ mọi kỷ lục hiệu năng trước đó của hãng. Con chip này có CPU lên đến 32 nhân và GPU 80 nhân, mang lại hiệu suất tính toán và đồ họa vượt trội so với M2 Ultra. Điều đáng nói, M3 Ultra còn chứng minh khả năng "gánh" mô hình AI khổng lồ Deepseek R1 với 671 tỷ tham số, bỏ xa các thế hệ chip Apple Silicon trước đây.

Intel PUMA: Chip 8 lõi 528 luồng với kết nối quang học

Intel ra mắt mô-đun quang học mesh-to-mesh đầu tiên tại hội nghị chip Hot Chips 2023, cho thấy sự tiến bộ của họ trong tương lai của các kết nối chip-to-chip quang học cũng được các công ty như Nvidia và Ayar Labs ủng hộ. Tuy nhiên, chip 8 lõi 528 luồng mà Intel sử dụng cho bài trình diễn đã chiếm spotlight do kiến ​​trúc độc đáo của nó với 66 luồng mỗi lõi để cho phép truyền dữ liệu lên đến 1TB/s. Đáng ngạc nhiên, chip chỉ tiêu thụ 75W điện, với ~60% điện năng được sử dụng bởi các kết nối quang học, nhưng thiết kế cuối cùng có thể cho phép các hệ thống với hai triệu lõi được kết nối trực tiếp với độ trễ dưới 400ns.